ChatGPT用多了会变傻!MIT招募大学生做实验论证,用得越多人越笨
鹭羽 发自 凹非寺
量子位 | 公众号 QbitAI
大学生过度用ChatGPT,用验论越笨大脑会变傻!多会得越多人
MIT最新脑科学研究发现:这类AI工具将会显著降低大脑活动水平,变傻乌海市某某机床铸造销售部削弱记忆,招做实证用甚至造成“认知惯性”。学生
长期依赖,用验论越笨还会影响你的多会得越多人深度思考与创造力。
该实验结合了脑电图神经成像、变傻NLP分析和行为科学,招做实证用也是学生首次用数据证实了这一结论。
网友们也随即发现,用验论越笨类似的多会得越多人影响也出现在使用谷歌地图这类导航工具时,借助工具,变傻反而越来越笨。招做实证用乌海市某某机床铸造销售部
他们认为,学生AI再智能,也只是工具,保持平衡才是用好AI的关键。
正如作者在论文中的描述:
用AI写作就像给孩子计算器——关键不是禁止使用,而是教会他们何时该心算。
那LLM具体是怎么影响到大脑工作的呢?我们接着看实验细节。
LLM vs 搜索引擎 vs 纯大脑
团队共招募54名大学生参与,并随机平均分配为三组,总计参与四轮实验:
- LLM组:仅能使用OpenAI GPT-4o作为唯一信息来源。
- 搜索引擎组:可使用谷歌浏览器辅助,但明确禁止使用LLM增强答案。
- 纯大脑组:禁用LLM及任何在线网站,仅凭自身知识和思考写作。
参与者需全部参加前三轮实验,并使用指定工具完成论文攥写。每轮将提供3个SAT议论文题目以供选择,参与者可自行选择其一,并在规定时间(20分钟)内完成书写。
期间,团队会使用脑电图(EEG)实时记录参与者的大脑活动,以评估他们的认知参与度和认知负荷,并深入了解论文撰写任务期间的神经激活情况。
同时利用自然语言处理(NLP)分析语言特征(如命名实体、词汇搭配),并对每位参与者进行访谈,然后在人类教师和一个专门构建的AI评委的协助下完成论文质量的评分。
实验结果表明,在大脑活动差异上,纯靠自己时大脑各频段段神经连接最强,说明需要调动更多记忆、规划和创造性思维,认知负荷最高,深度思考更充分。
而使用LLM时神经连接则最弱,自主思考大幅度减少,使用搜索引擎时介于二者之间,因为需要自行整合外部信息,视觉皮层活动更多。
在论文质量与记忆上,LLM组的论文结构更紧密规范,但内容同质化高,纯大脑组则体现出更独特的论文风格,反映了个人经验的参与,使用谷歌搜索时更容易受搜索排名的偏见影响,质量保持中等水平。
值得一提的是,过度依赖LLM的参与者很难准确记住自己的论文,83.3%的参与者都没能提供正确引用,他们的记忆编码较浅。
而纯靠自己写的参与者对内容记忆更深刻,只有11.1%的参与者遇到相同困难,但相应的写作耗时更长。
到第四轮实验,团队只选取了其中18名参与者,并按照他们原来的组别被重新分配到相反组别,即让LLM组改用纯大脑写作,纯大脑组改用LLM写作,并要求他们从自己之前写过的主题中挑选一个进行重写。
实验发现,原本使用LLM的参与者在不使用工具的情况下,大脑神经连接仍然弱于原大脑组,且引用能力较差,显示出对工具的依赖,在一定程度上会造成认知惯性。
而原本依靠自己完成的参与者在第四轮使用LLM时,大脑活动反而增强,表现出更高的记忆召回能力,并重新激活了大脑神经网络中的核心节点(枕顶叶和前额叶节点),因为他们同时整合工具建议和自主思考,没有完全依赖LLM。
AI写作下的“认知萎缩”
研究团队发现,从神经认知层面、语言层面再到行为层面,都指向同一个结论:
使用AI写作工具,会降低大脑的认知参与度,长此以往大脑甚至会因为得不到充分锻炼而退化。
具体来说,LLM就像是提供了一个便利陷阱,是以降低神经连接、损伤即时记忆编码置换出的高效率,从而导致记忆衰退、创造力降低,并在切换回无辅助写作时表现出持续性的认知缺陷。
长期依赖LLM,会改变大脑信息处理模式,使大脑从“主动生成信息”转变为“被动筛选信息”,削弱独立思考和问题解决能力。
相比之下,纯大脑写作需要并强化了广泛的神经协调,搜索引擎使用则展现出一种中间状态,涉及更强的视觉执行整合。
举个例子,用LLM写论文就像 “抄答案”,虽然快,但没真正理解解题过程,下次自己做还是不会;纯靠自己就像 “自己推导”,虽然慢但记得牢;搜索引擎类似 “查资料辅助推导”,介于两者之间。
于是研究团队提醒:在学习中要避免过度使用LLM,平衡好工具辅助与自主思考。
尽量将AI用于语法检查、润色或初步资料搜集,而不是直接生成核心内容和结构;在产出文章后,也要务必花时间理解消化,融入自己的见解。
不要把AI当作思考的“替代品”,而应视为“辅助工具”。
论文链接:https://arxiv.org/abs/2506.08872
参考链接:
[1]https://x.com/rohanpaul_ai/status/1934770112483217645
[2]https://www.brainonllm.com/
[3]https://www.linkedin.com/pulse/critical-reading-your-brain-chatgpt-accumulation-cognitive-debt-llqhe/
(责任编辑:综合)
-
明年或是增速最快业务”作者|王磊 秦章勇汽车这条既重又烧钱的赛道,被小米打破魔咒。宣布造车三年, 现金流反而越来越大,根据其三季报,小米的现金储备达到了1516亿元,创下历史新高。不得不说,“北京现金 ...[详细]
-
NBA季前赛:沃特斯三分绝杀勇士险胜快船 哈登13+8库里三分4中0
北京时间10月6日,NBA季前赛继续进行,勇士91-90险胜快船,沃特斯命中三分压哨绝杀。哈登和库里都只打了上半场,哈登6中2,罚球8中8,得到13分8助攻。库里8中2,三分4中0,得到9分2助攻,夏 ...[详细]
-
北京时间10月6日,英超第7轮,切尔西以1-1的比分战平诺丁汉森林。赛后,切尔西球员马杜埃凯接受了采访。马杜埃凯表示:“对手是一支顽强的球队。我们带着拿下三分的意图进入比赛,但未能如愿,这让人感到沮丧 ...[详细]
-
直播吧10月6日讯 在昨天季前赛阿布扎比站掘金对阵凯尔特人的比赛中,凯尔特人解说员表示威少给湖人当了替罪羊,并承担了所有的批评。今天,詹姆斯转发了该视频并评论道:“一路旅行到阿布扎比,成为我的.... ...[详细]
-
【导读】晶华微被中国证监会立案,此前被查出多项信息披露问题中国基金报记者 闻言11月15日晚间,晶华微公告称,公司因涉嫌信息披露违法违规,被中国证监会立案。晶华微是专业混合信号集成电路设计及应用方案供 ...[详细]
-
北京时间2024年10月6日晚间,WTT中国大满贯赛2024结束了所有赛程,最后进行的男子单打决赛中,小将林诗栋4-3逆转击败老大哥马龙,成功登顶!赛后马龙接受场边记者采访!记者问到:此前您说这是自己 ...[详细]
-
这个国庆档可真冷清啊。总票房已经突破18亿,然而除了陈凯歌的大片《志愿军:存亡之战》评分超过7之外,其他的全在及格线徘徊。像《熊猫计划》、《浴火 ...[详细]
-
无缘中网决赛!郑钦文进账390分+228万元,只差108分,进年终有戏
中国网球公开赛女单半决赛,郑钦文总比分0-2不敌穆霍娃。这场输球,让郑钦文无缘首次跻身WTA1000级别赛事的决赛,仍然有收获,就是228万元奖金,390个积分,年终实时冠军积分榜稳居第八,距离排名第 ...[详细]
-
[德媒爆料:北溪爆炸案嫌犯长期接受中情局培训]两年多过去了,“北溪”天然气管道爆炸事件的真相仍未浮出水面。据德国《明镜周刊》20日爆料称,被指控策划实施了这起爆炸事件的乌克兰团体与美国中央情报局C ...[详细]
-
直播吧10月06日讯 热刺vs布莱顿第23分钟,索兰克助攻约翰逊破门,约翰逊各赛事连续6场破门! ...[详细]